LL
r/LocalLLaMA • 30일 전
IMP 7
16대 DGX Spark 클러스터 구축 완료
엔비디아 DGX Spark 16대로 200Gbps 통신 속도의 고성능 클러스터 구축을 완료한 사례입니다. 통일 메모리(Unified Memory) 용량을 극대화해 대규모 언어 모델(GLM-5.1-NVFP4) 서빙을 수행하며, 향후 Mac Studio를 추가해 프리필과 디코드 단계를 분리할 계획입니다.
NVIDIA DGX Spark 클러스터 구축 통일 메모리